Để hiểu nhóm toán học vượt ngoài phạm vi chỉ là các thao tác ký hiệu như ở trên, các nhà toán học đã phát triển thêm nhiều khái niệm cấu trúc nhóm.c[›] Có một nguyên lý khái niệm nằm bên dưới những ký hiệu sau: để tận dụng những ưu điểm về cấu trúc của nhóm (mà tập hợp "không có cấu trúc" không có đặc điểm này), các phép xây dựng liên quan đến nhóm phải tương thích với phép toán nhóm. Sự tương thích này thể hiện chính nó thông qua các khái niệm sau theo nhiều cách. Ví dụ, các nhóm liên hệ với nhau thông qua một hàm gọi là đồng cấu nhóm. Bằng nguyên lý đề cập ở trên, chúng đòi hỏi cấu trúc nhóm được miêu tả theo nghĩa chính xác. Cấu trúc của nhóm cũng được nghiên cứu bằng cách chia nhỏ nó thành các phần gọi là nhóm con hoặc nhóm thương. Nguyên lý "bảo toàn cấu trúc"—chủ đề lặp lại trong toàn bộ toán học—là một ví dụ nghiên cứu bởi ngành lý thuyết phạm trù, trong trường hợp này là phạm trù nhóm.[27]

Đồng cấu nhóm

Đồng cấu nhómg[›] là những hàm bảo tồn cấu trúc nhóm. Hàm a: G → H giữa hai nhóm (G,•) và (H,∗) được gọi là đồng cấu nếu phương trình

thỏa mãn đối với mọi phần tử g, k thuộc G. Nói cách khác, kết quả thu được như nhau khi thực hiện phép toán nhóm trước hoặc sau khi áp dụng ánh xạ a. Đòi hỏi này đảm bảo rằng a(1G) = 1H, và a(g)−1 = a(g−1) đối với mọi g thuộc G. Do vậy đồng cấu nhóm giữ nguyên mọi cấu trúc của G cho bởi các tiên đề nhóm.[28]

Hai nhóm G và H là đẳng cấu với nhau nếu tồn tại hai phép đồng cấu nhóm a: G → H và b: H → G, sao cho khi áp dụng hàm hợp của hai hàm này trong hai trường hợp thứ tự tác dụng hàm đều cho hàm đồng nhất của G và H. Tức là, a(b(h)) = h và b(a(g)) = g đối với bất kỳ g thuộc G và h thuộc H. Từ quan điểm trừu tượng, các nhóm đẳng cấu mang thông tin như nhau. Ví dụ, để chứng minh g • g = 1G đối với các phần tử g thuộc G là tương đương logic với chứng minh a(g) ∗ a(g) = 1H, bởi vì áp dụng a đối với nhóm G thu được phần tử thuộc nhóm H và áp dụng b đối với nhóm H thu được kết quả thuộc nhóm G.

Nhóm con

Hình thức mà nói nhóm con là một nhóm H chứa trong một nhóm lớn hơn là G.[29] Cụ thể là, phần tử đơn vị của G cũng thuộc H, và bất cứ h1 và h2 thuộc H, thì h1 • h2 và h1−1 cũng là các phần tử thuộc H, các phép toán nhóm trên G giới hạn vào H tạo thành một nhóm.

Trong ví dụ ở trên, các phần tử đơn vị và phần tử của phép quay tạo thành một nhóm con R = {id, r1, r2, r3}, tô bằng màu đỏ trong bảng nhóm ở trên: bất kỳ sự kết hợp hai phép quay nào cũng tạo thành một phép quay, một phép quay có thể rút lại bằng (ví dụ nghịch đảo của nó) phép quay bổ sung 270° cho 90°, 180° cho 180°, và 90° cho 270° (lưu ý rằng ở đây không định nghĩa phép quay theo hướng ngược lại). Phép thử nhóm con là điều kiện cần và đủ cho tập con H của nhóm G trở thành nhóm con: với mọi phần tử g, h ∈ H nếu g−1h ∈ H thì H là một nhóm con. Việc biết mọi nhóm con là một điều quan trọng khi nghiên cứu một nhóm trên tổng thể.d[›]

Bất kỳ tập con S nào của nhóm G, nhóm con sinh bởi S chứa tích các phần tử của S và nghịch đảo của chúng. Nó là nhóm con nhỏ nhất của G chứa S.[30] Trong ví dụ giới thiệu ở trên, nhóm con tạo bởi r2 và fv chứa hai phần tử này, phần tử đơn vị id và fh = fv • r2. Đến lượt đây là một nhóm con, bởi vì kết hợp bất kỳ hai trong bốn phần tử này hoặc những phần tử nghịch đảo của chúng (mà trong trường hợp đặc biệt là chính chúng) thu được các phần tử của chính nhóm con này.

Các lớp lân cận (Coset)

Trong nhiều tình huống các nhà toán học mong muốn coi hai phần tử nhóm là như nhau nếu chúng chỉ khác nhau bởi một phần tử của một nhóm con. Ví dụ, trong nhóm D4 ở trên, khi thực hiện thao tác lật ngược, hình vuông sẽ không bao giờ trở lại cấu hình r2 nếu chỉ áp dụng các thao tác quay (mà không cần lật nó), tức là phép quay không liên quan đến câu hỏi liệu phép lật ngược đã được thực hiện. Do vậy họ định nghĩa các lớp lân cận (coset) để hình thức hóa vấn đề này: nhóm con H xác định lên các lớp lân cận trái và lớp lân cận phải, mà có thể coi như là sự tịnh tiến của H bởi một phần tử nhóm bất kỳ g. Theo ký hiệu, các lớp lân cận trái' và phải của H chứa g lần lượt là

gH = {g • h:h ∈ H} và Hg = {h • g:h ∈ H}.[31]

Các lớp lân cận của một nhóm con bất kỳ H tạo thành phép phân hoạch của G; nghĩa là hợp của mọi lớp lân cận trái bằng G và hai lớp lân cận trái hoặc bằng nhau hoặc có giao là tập hợp rỗng.[32] Trường hợp đầu tiên g1H = g2H xảy ra nếu và chỉ nếu g1−1 • g2 ∈ H, hay nếu hai phần tử khác nhau bởi một phần tử thuộc H. Kết luận cũng tương tự với các lớp lân cận phải của H. Các lớp lân cận trái và lớp lân cận phải của H có thể bằng hoặc không bằng nhau. Nếu chúng bằng nhau, ví dụ đối với mọi g thuộc G, gH = Hg, thì H được gọi là nhóm con chuẩn tắc.

Trong D4, ví dụ về nhóm đối xứng, các lớp trái gR của nhóm con R chứa phép quay hoặc là bằng R, nếu g là một phần tử của chính R, hoặc không thì bằng U = fcR = {fc, fv, fd, fh} (tô màu lam trong bảng nhóm). Nhóm con R cũng là chuẩn tắc, bởi vì fcR = U = Rfc và tương tự cho bất kỳ phần tử khác ngoài fc.

Nhóm thương

Trong một số trường hợp, tập hợp các lớp lân cận (coset) của một nhóm con có thể tuân theo một luật nhóm, tạo thành nhóm thương hay nhóm nhân tử. Nếu điều này là có thể, nhóm con phải là chuẩn tắc. Đối với bất kỳ nhóm con chuẩn tắc N, nhóm thương được định nghĩa là

Tập hợp này thừa hưởng phép toán nhóm (đôi khi gọi là phép nhân lớp lân cận - coset multiplication, hoặc cộng lớp lân cận) từ nhóm ban đầu G: (gN) • (hN) = (gh)N với mọi g và h trong G. Định nghĩa này xuất phát từ ý tưởng (tự nó là một ví dụ của sự xem xét cấu trúc tổng quát nêu ở trên) rằng ánh xạ G → G / N đặt tương ứng mỗi phần tử g với phần tử thuộc lớp gN là đồng cấu nhóm, hoặc bằng cách xem xét trừu tượng tổng quát hơn gọi là tính chất phổ quát. Lớp eN = N phục vụ như là đơn vị của nhóm này, và nghịch đảo của gN trong nhóm thương là (gN)−1 = (g−1)N.e[›]

Các phần tử của nhóm thương D4 / R chính là R, phần tử đơn vị là U = fvR. Phép toán nhóm trên thương nêu ở bên phải. Ví dụ, U • U = fvR • fvR = (fv • fv)R = R. Cả nhóm con R = {id, r1, r2, r3}, cũng như nhóm thương tương ứng là nhóm Abel, trong khi D4 không phải là nhóm Abel. Xây dựng nhóm lớn hơn từ những nhóm nhỏ hơn, như D4 từ nhóm con R và nhóm thương D4 / R được trừu tượng hóa gọi là tích nửa trực tiếp.

Nhóm thương và nhóm con cùng với nhau tạo thành cách miêu tả mọi nhóm theo biểu diễn: bất kỳ một nhóm là thương của nhóm tự do trên tập sinh của nhóm. Ví dụ, nhóm nhị diện D4, có thể sinh ra từ hai phần tử r và f (như r = r1, phép quay bên phải và f = fv phép lật theo phương thẳng đứng), có nghĩa là mỗi đối xứng của hình vuông là tổ hợp hữu hạn của hai phép đối xứng này và nghịch đảo của chúng. Cùng với các liên hệ

cho phép miêu tả hoàn toàn nhóm này. Biểu diễn nhóm cũng dùng để xây dựng lên đồ thị Cayley, một công cụ minh họa các nhóm rời rạc.

Nhóm con và nhóm thương có liên hệ với nhau theo cách sau đây: một tập con H của G có thể coi như là một đơn ánh H → G, tức là bất kỳ phần tử nào của tập đích có nhiều nhất một phần tử tương ứng của tập nguồn. Ngược lại với đơn ánh là toàn ánh (mỗi phần tử của tập đích có ít nhất một phần tử tương ứng của tập nguồn), như ánh xạ chính tắc G → G / N.y[›] Giải thích nhóm con và nhóm thương theo ngôn ngữ của những đồng cấu nhấn mạnh vào khái niệm cấu trúc thừa hưởng từ những định nghĩa này ám chỉ ở phần giới thiệu. Nói chung, đồng cấu không là đơn ánh hay toàn ánh. Nhân và ảnh của đồng cấu nhóm và định lý đẳng cấu thứ nhất đề cập những vấn đề này.